連載 第3回：LSTMで「飽きの来ない献立」を時系列予測する
コサイン類似度では解決できなかった「献立のマンネリ」問題に、LSTMによる時系列予測で挑みます。テキスト生成の発想を献立提案に転用した実装の全記録。
読む →
Machine Learning
「Machine Learning」タグの記事（14件）
連載 
連載 第1回：きっかけと全体像 — ChatGPTがファンドマネージャーに勝った日
ChatGPTがプロのファンドマネージャーを上回ったという実験に触発され、LLMファインチューニングで日本株の株価予測AIサービス「千里眼」を構築するまでの全体像を紹介します。
読む →
連載 第2回：ローカルGPUでの挑戦と挫折 — RTX 3060の6GBで8Bモデルに挑む
ノートPC搭載のRTX 3060（6GB VRAM）でELYZA 8Bモデルのファインチューニングに挑戦し、VRAM不足で断念するまでの過程と、そこから得た教訓を記録します。
読む →
連載 第3回：LoRAと量子化の技術解説 — LLMを軽くする仕組みたち
LLMファインチューニングに不可欠な軽量化技術であるLoRA、量子化、QLoRAの仕組みを解説し、架空の事実をモデルに学習させる「富士山実験」で技術の有効性を実証します。
読む →
連載 第6回：訓練データの設計 — 5種類のデータをどう統合したか
LLMファインチューニングにおける訓練データの設計思想を解説。企業情報・ニュース・株価・財務・マクロ経済指標の5種類のデータ統合、正解ラベルの作り方、8バージョンに及ぶ試行錯誤の過程を記録します。
読む →